Trước đây, xã Long Bình thuộc huyện Long Mỹ.

Ngày 21 tháng 4 năm 1979, Hội đồng Chính phủ ban hành Quyết định 174-CP[3]. Theo đó, chia xã Long Bình thành hai xã Long Bình và Long Hòa.

Ngày 28 tháng 1 năm 1991, toàn bộ diện tích và dân số của xã Long Hòa được sáp nhập trở lại xã Long Bình.[4]

Ngày 15 tháng 5 năm 2015, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 933/NQ-UBTVQH13[5]. Theo đó, chuyển xã Long Bình về thị xã Long Mỹ mới thành lập và tách một phần diện tích, dân số của xã Long Bình (gồm các ấp Bình Thạnh, Bình An, Bình Tân, Bình Hòa, Bình Hiếu) để thành lập các phường Bình Thạnh và Vĩnh Tường thuộc thị xã Long Mỹ.

Sau khi điều chỉnh địa giới hành chính, xã Long Bình còn lại 1.461,34 ha diện tích tự nhiên và 5.662 người.